AI最危險的地方「錯得很像真的」

近幾年，AI已經大舉伸入生活環境中且使用也越來越普及，這時必須讓孩子理解與AI對答如流、有問必答，不代表回應的結果或答案是百分百正確無誤。在這AI相關技術應用熱絡使用下進而也產生了—幻覺(Hallucination)專屬AI的名詞，意思是「AI產生看似合理、語氣肯定，但實際上不存在或不正確的資訊」，簡單來說就是一本正經講X話。孩子通常容易受到「漂亮排版、完整敘述、肯定語氣」影響，看到答案寫得很有道理，就直接當成是正確資訊，如果把AI當成永遠正確的百科全書容易養成看到答案就相信的習慣。因此，AI學習的不只是學會提問，更應該學會懂得動腦思考與懷疑AI給的答案。

AI學習不能只停留在「如何問AI」

聯合國教科文組織(UNESCO)在2024年發布的 AI Competency Framework for Students，將學生AI能力分成「以人為本的思維、AI倫理、AI技術與應用、AI系統設計」四大面向，並以 Understand、Apply、Create 三個階段逐步發展，其中也強調學生應具備對AI結果進行批判性判斷的能力。這個觀念可以轉化成孩子容易理解的一句話：「AI回答得很好，不代表一定是真的。」真正重要的第一步，是看到答案後，願意停下來問一句：「這是真的嗎？」

圖片來源：Wayfinder Learning Lab – Stephen Taylor

面對AI可能產生的錯誤，可以建立簡單的「AI三層驗證法」

• 第一層：AI自己檢查：要求AI重新檢視回答，例如：「請重新檢查以上內容，找出可能錯誤、缺乏證據或需要查證的地方。」這個方法不能保證AI一定修正錯誤，但能讓回答增加一輪自我檢查

• 第二層：第二個AI交叉驗證：相同問題分別交給不同AI，例如Gemini、ChatGPT或Claude，再比較答案。如果不同AI提供不同日期、數據或解釋，就代表這項資訊值得進一步確認，而不是挑一個「看起來比較合理」的答案直接採用

• 第三層：人類查證：回到課本、老師、政府機關、學校教材、專業機構或可靠網站。例如孩子查詢「臺灣某項歷史事件」，可以回到社會課本與相關官方資料；自然科問題可以比較課本與科學資料；醫療、法律、安全等高風險問題，更不能只依賴AI

而且符合聯合國教科文組織(UNESCO)所提出的AI Competency Framework for Teachers強調的為教師框架，包含「以人為本、AI倫理、AI基礎與應用、AI教學法、AI專業學習」五大面向，核心之一就是維持人類自主性與責任，AI可以協助判斷，但重要決策仍應由人類掌握。

圖片來源：Wayfinder Learning Lab – Stephen Taylor

AI素養其實就是生活中的判斷力

天下雜誌今年3月所刊載的一篇「不要以為孩子還小！芬蘭從幼兒園就開始教孩子分辨AI謊言」，是一個值得參考的方向，北歐小國的芬蘭長期把媒體與資訊識讀融入教育，並將培養多元素養的時間點往前推；幼兒階段可以從童話故事開始討論「故事中的內容哪些是虛構、哪些可能是事實」，資料也指出芬蘭教育情境中，約3歲開始接觸數位環境中的資訊與內容，到了7、8歲則進一步學習什麼是「可信任的來源」。這不是要求幼兒園孩子學會複雜的AI技術，而是很早就建立「資訊不一定是真的」這概念。未來看到一張AI生成圖片，可以問「這是真的照片嗎？」看到一段網路影片，可以問「誰作的？目的是什麼？」看到AI回答可以問「有沒有其他證據？」這些看起來簡單的問題，其實就是資訊識讀與AI素養的基礎，真正重要的AI素養，不只是會使用AI，而是知道什麼時候需要懷疑AI、什麼時候必須查證，及什麼時候不能把判斷交給AI，這些AI素養會成為AI時代的孩子們，很重要的能力之一。

>> 回目錄 <<